AI资讯新闻榜单内容搜索-Transforme

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: Transforme
注意力也是FFN?从快权重出发,重新理解高效注意力 |NeurIPS'26

注意力也是FFN?从快权重出发,重新理解高效注意力 |NeurIPS'26

注意力也是FFN?从快权重出发,重新理解高效注意力 |NeurIPS'26

一直以来,在Transformer架构中,注意力(Attention)与前馈网络(Feed-Forward Network,FFN)被认为是两个功能不同且互补的模块: 前者让词元(Token)彼此交互,后者对每个词元进行非线性变换。

来自主题: AI技术研报
7954 点击    2026-10-12 11:45
扩散模型路线之争可以停了?Latent‑Pixel混合扩散生成新范式上线 | ECCV'26

扩散模型路线之争可以停了?Latent‑Pixel混合扩散生成新范式上线 | ECCV'26

扩散模型路线之争可以停了?Latent‑Pixel混合扩散生成新范式上线 | ECCV'26

中科大与智象HiDream.ai团队提出Hi-DiT,采用时间门控机制在共享Transformer中分阶段协调Latent与Pixel双流以兼顾生成效率与细节保留,在ImageNet 256×256上达到1.06 FID,论文已被ECCV 2026接收。

来自主题: AI技术研报
9961 点击    2026-09-26 14:57
同等预算下,Looped Transformer更强吗?清华、字节Seed给出答案

同等预算下,Looped Transformer更强吗?清华、字节Seed给出答案

同等预算下,Looped Transformer更强吗?清华、字节Seed给出答案

在大模型的发展中,提升能力的主要手段一直是 "做大"—— 更多参数、更多数据、更多算力。如今,另一条思路开始受到关注:与其不断堆叠新的层,不如让已有的层再跑一遍。这就是 Looped Transformer。普通 Transformer 的每一层只执行一次,而 Looped Transformer 会把其中一部分层重复执行,让模型在不增加参数的情况下获得更深的计算。

来自主题: AI技术研报
6634 点击    2026-09-08 11:01
GPT-6带火循环Transformer,阿里早已布局

GPT-6带火循环Transformer,阿里早已布局

GPT-6带火循环Transformer,阿里早已布局

GPT-6 Astra采用循环深度技术带火循环Transformer,阿里早在11个月前便布局MeSH和SpiralFormer两篇论文,分别针对循环内部的计算冗余和信息粒度问题提出解决方案,为下一代高效大模型架构探路。

来自主题: AI资讯
9611 点击    2026-09-06 11:05
今天,「人工智能」这个学科诞生70年了

今天,「人工智能」这个学科诞生70年了

今天,「人工智能」这个学科诞生70年了

文章以1955年麦卡锡等四人提交达特茅斯会议提案为起点,回顾人工智能学科诞生70年来的关键节点——符号主义与连接主义的兴衰、两次AI寒冬的成因与转机、2012年深度学习崛起、Transformer架构与ChatGPT引发的产业变革,指出AI发展是一条反复冲高与摔落的锯齿线,每一次寒冬皆因承诺跑得比能力快。

来自主题: AI资讯
9860 点击    2026-09-01 09:57
英伟达前AI总监颠覆Transformer!5万亿上下文物理AI,推演整个宇宙

英伟达前AI总监颠覆Transformer!5万亿上下文物理AI,推演整个宇宙

英伟达前AI总监颠覆Transformer!5万亿上下文物理AI,推演整个宇宙

Accelerated Understanding由英伟达前AI研究总监Anima Anandkumar联合创立,采用神经算子架构构建支持5万亿推理上下文的物理AI大模型,可一次推演完整4D时空轨迹,其创始人拒绝贝索斯35%股权及超20亿美元融资的普罗米修斯计划招揽。

来自主题: AI资讯
9045 点击    2026-08-30 12:38
Transformer祖传设计遭暴击,COLM顶会三篇论文发难

Transformer祖传设计遭暴击,COLM顶会三篇论文发难

Transformer祖传设计遭暴击,COLM顶会三篇论文发难

Transformer的许多关键技术,在一场会议上集体塌房了?!

来自主题: AI技术研报
10846 点击    2026-08-18 10:51